iT邦幫忙

2023 iThome 鐵人賽

DAY 17
0

kernel trick

作天的SVM跟SVR有提到可以用kernel function將資料映射到高維空間中

  • 解決的問題:當資料在原始空間中無法被線性分割時,經由非線性投影後的資料能在更高維度的空間中被區隔開來

kernel function

  • 只要對所有的資料,有一個函數可以滿足:k(x,y)=⟨φ(x),φ(y)⟩

這個k(x,y)就是一個kernel函數,⟨a, b⟩表示向量a和b做內積。

幾種常見的kernel function

  • Linear Kernel
    • 最簡單的kernel,它只是內積<x,y>加上常數c
  • Polynomial Kernel
    • 對於標準化過的訓練資料很有用,可根據具體情況選擇n階的多項式
  • RBF kernel:讓特徵轉換可以到無限大,適用的資料量更彈性,缺點是在於被轉換到無限多維後,模型沒辦法容易的被解讀

參考資料


上一篇
Day16-SVM (Support Vector Machine) / SVR (Support Vector Regression)
下一篇
Day18-K-means Clustering
系列文
什麼演算法?一起來學機器學習!30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言